非线性激活功能赋予神经网络，具有学习复杂的高维功能的能力。激活功能的选择是一个重要的超参数，确定深神经网络的性能。它显着影响梯度流动，训练速度，最终是神经网络的表示力。像Sigmoids这样的饱和活化功能遭受消失的梯度问题，不能用于深神经网络。通用近似定理保证，Sigmoids和Relu的多层网络可以学习任意复杂的连续功能，以任何准确性。尽管多层神经网络来学习任意复杂的激活功能，但传统神经网络中的每个神经元（使用SIGMOIDS和Relu类似的网络）具有单个超平面作为其决策边界，因此进行线性分类。因此，具有S形，Relu，Swish和Mish激活功能的单个神经元不能学习XOR函数。最近的研究已经发现了两层和三个人皮层中的生物神经元，具有摆动激活功能并且能够单独学习XOR功能。生物神经元中振荡激活功能的存在可能部分解释生物和人工神经网络之间的性能差距。本文提出了4个新的振荡激活功能，使单个神经元能够在没有手动功能工程的情况下学习XOR功能。本文探讨了使用振荡激活功能来解决较少神经元并减少培训时间的分类问题的可能性。
translated by 谷歌翻译
本报告描述了一组新生儿脑电图（EEG）记录，根据背景模式中异常的严重程度分级。该数据集由来自新生儿重症监护病房记录的53个新生儿的169小时多通道脑电图组成。所有新生儿均诊断出低氧缺血性脑病（HIE），这是全年前婴儿脑损伤的最常见原因。对于每种新生儿，选择了多个1小时的高质量脑电图，然后对背景异常进行评分。分级系统评估eeg属性，例如振幅和频率，连续性，睡眠循环，对称性和同步以及异常波形。然后将背景严重程度分为4年级：正常或轻度异常，中度异常，严重异常和不活跃的脑电图。数据可用作用于HIE，用于脑电图训练目的的新生儿的多通道脑电图的参考集，或用于开发和评估自动化等级算法。
translated by 谷歌翻译